Mã Đằng tự là Thọ Thành (寿成), là hậu duệ của Phục Ba tướng quân Mã Viện – công thần thời Hán Quang Vũ Đế. Ông chào đời tại tại Phù Phong, Mậu Lăng, thuộc Thiểm Tây.

Tam Quốc chí cho biết:[1] Cha Mã Đằng là Mã Túc, tự Tử Thạc sống thời Hán Hoàn Đế, làm quan huyện úy các huyện Lan Can, Thiên Thủy (Thiên Thủy Lan Kiền úy), sau đó vì mắc tội nên bị mất chức quan này. Mã Túc lưu lạc đến Lũng Tây, sống cùng với người Khương. Vì gia cảnh bần hàn, không có vợ con nên ông phải lấy vợ người Khương và sinh ra Mã Đằng.

Vì sinh trưởng trong một gia đình quý tộc đã sa sút, có một người cha lưu lạc, gia cảnh bần hàn nên Mã Đằng thuở nhỏ nghèo hèn không có một chút sản nghiệp hay tài sản gì. Nguồn thu nhập chính của ông đó là bằng sức lao động của mình ông thường này vào núi Chương (Chương sơn) để đốn củi sau đó gùi đến các thị thành dưới chân núi để kiếm tiền và lấy đó làm kế sinh nhai.

Mặc dù xuất thân trong hoàn cảnh gia đình sa sút nhưng ông vẫn là dòng dõi cao quý, chính vì vậy ông có ngoại hình khác người như: "mình cao hơn tám thước, thân thể vạm vỡ, mặt mũi kỳ dị khác thường" đồng thời ông có nhân cách, khí độ cao quý với "tính nết hiền hậu, được mọi người kính nể".

Tam Quốc chí cũng cho biết vì dung mạo khác thường và khí độ hiên ngang này mà sau đó khi có chiến loạn, ông đã tình nguyện gia nhập quân đội để dẹp loạn và "người ở Châu quận thấy Đằng khác thường, cho làm Tòng sự, để cai quản binh lính". Đồng thời sau này con trai trưởng của ông là Mã Siêu cũng có một dung mạo đẹp đẽ và được người đời xưng tặng là "Cẩm Mã Siêu".